- Technologiereus Amazon waarschuwt zijn medewerkers om geen vertrouwelijke informatie met de door artificial intelligence-aangestuurde chatbot ChatGPT te delen.
- Werknemers willen de tool gebruiken omdat het hun productiviteit verhoogt.
- OpenAI, het bedrijf achter ChatGPT, is niet transparant over hoe het omgaat met de ingevoerde data, zegt een hoogleraar computertaalkunde.
- Lees ook: ChatGPT en generatieve AI: de toekomst van tech of de volgende zeepbel?
Afgelopen maand werd webwinkelconcern Amazon intern overspoeld door vragen van werknemers over ChatGPT, de door kunstmatige intelligentie aangestuurde chatbot die niet uit het nieuws kan blijven, sinds de introductie in november 2022.
Sommige werknemers vroegen of Amazon al een officieel beleid had opgesteld voor het gebruik van ChatGPT op zakelijke apparaten. Anderen vroegen of ze überhaupt wel gebruik mochten maken van de tool.
Een advocaat van Amazon trachtte wat duidelijkheid te scheppen en liet aan werknemers weten dat ze vooral geen vertrouwelijke bedrijfsinformatie met de chatbot moeten delen. Daaronder valt volgens haar ook programmeercode waar de persoon op dat moment aan werkt. Het is inmiddels bekend dat ChatGPT veelvuldig wordt gebruikt om complete stukken goed werkende programmeertaal te schrijven en te corrigeren.
De interne bedrijfsjurist suggereerde dat werknemers zich vooralsnog aan de geheimhoudingsplicht moeten houden. Dit omdat volgens haar meerdere keren is gebleken dat ChatGPT antwoorden gaf die verrassend veel leken op interne data van Amazon.
"Dit is belangrijk, want jouw input kan gebruikt worden om de volgende versie van ChatGPT te trainen. En we willen niet dat de output van de chatbot lijkt op onze geheime interne data", zei de jurist tegen werknemers.
De waarschuwing is een voorbeeld van de problemen waar bedrijven ineens mee te maken krijgen sinds de opkomst van ChatGPT. De enorm snelle acceptatie van de nieuwe software kan voor lastige ethische kwesties gaan zorgen in de nabije toekomst. Zeker voor Amazon, dat deels een concurrente is van Microsoft, de belangrijkste inversteerder en hostingpartij van het bedrijf achter ChatGPT.
"OpenAI is verre van transparant over hoe het met ingevoerde data omgaat", zegt Emily Bender, hoogleraar computertaalkunde aan de Universiteit van Washington, tegen Insider. "Maar mocht het gebruikt worden om de bot te trainen, dan verwacht ik dat bedrijven zich gaan afvragen of ze er nog wel gebruik van moeten maken. Zeker omdat de bot mogelijk in staat zou kunnen zijn om op slinkse manier gevoelige data te ontfutselen."
Amazon ging niet in op een verzoek om commentaar van Insider. Een woordvoerder van OpenAI verwees naar de pagina met veelgestelde vragen over ChatGPT om meer te weten te komen over het beleid rond data en privacy.
Sommige werknemers van Amazon gebruiken ChatGPT al als een 'programmeerassistent'
Amazon heeft al wat kleine beleidsaanpassingen gedaan voor het gebruik van ChatGPT op zakelijke apparaten. Wil een werknemer bijvoorbeeld inloggen op de website van de chatbot, dan krijgt hij of zij een melding dat ze een pagina bezoeken die mogelijk niet onder het veiligheidsbeleid van Amazon valt.
Maar die melding is makkelijk te omzeilen door te erkennen dat hij gelezen is en hem weg te klikken. De melding is er volgens werknemers dan ook vooral om duidelijk te maken dat het niet de bedoeling is om vertrouwelijke gegevens in de chatbot in te voeren.
Maar dat weerhoudt sommige werknemers er niet van om ChatGPT te gebruiken als hulpje bij het programmeren. Hiervoor voeren ze de geschreven stukken code in en vragen ze de AI-tool om deze te doorlopen en te verbeteren, blijkt uit screenshots die zijn ingezien door Insider.
"Ik denk dat het geweldig zou zijn om dit vanaf nu te gebruiken", zegt een werknemer van Amazon tegen Insider. "Dus elke vorm van beleid zou fantastisch zijn."
'Zowel bang als enthousiast'
Een andere werknemer zei dat hij sollicitatievragen voor een vacature voor programmeur van Amazon met ChatGPT had gedeeld. De antwoorden die de bot op deze technische vragen gaf, waren volgens hem correct.
"Ik ben zowel bang als enthousiast over wat voor impact dit kan hebben op de manier waarop de we sollicitatiegesprekken zullen gaan voeren", zei hij.
Over het algemeen lijken de betrokken Amazon-medewerkers positief over het potentieel dat ChatGPT heeft. Ze vroegen zich dan ook af of Amazon aan een soortgelijk product werkt.
De juriste die medewerkers van de techreus waarschuwde voor het delen van gevoelige informatie, liet ook aan haar collega's weten dat Amazon werkt aan vergelijkbare technologie. Hierbij verwees ze naar de digitale assistent Alexa en CodeWhisperer, de door artificial intelligence (AI) aangestuurde programmeerhulp van het bedrijf.
Volgens een werknemer van Amazon Web Services (AWS) zou het Enterprise Support-team al op kleine schaal aan het verkennen zijn "wat de impact van geavanceerde chatbots op de bedrijfsvoering" kan zijn. Hieruit blijkt dat ChatGPT goed is in het beantwoorden van klantvragen over AWS. Zelfs de uitdagendere vragen zouden hierbij correct beantwoord worden. Hij zou ook goed zijn in het bedenken van doelen voor bedrijven van klanten.
Onduidelijk hoe OpenAI omgaat met data, stelt hoogleraar
Nu ChatGPT vaker op de werkvloer gebruikt wordt, moet duidelijk worden hoe OpenAI met ingevoerde data omgaat, stelt hoogleraar Bender.
In de gebruiksvoorwaarden van OpenAI staat dat het bedrijf alle door gebruikers in- en door ChatGPT uitgevoerde data intern mag gebruiken. Daarbij zou het alle privacygevoelige data, zoals persoonsgebonden informatie, verwijderen.
Maar volgens Bender is daarmee nog niet duidelijk hoe OpenAI die persoonlijke informatie verwijdert en hoe ver het hierin gaat. Daarnaast valt bedrijfsgevoelige informatie volgens haar niet in deze categorie en is het dus de vraag hoe het bedrijf hiermee omgaat.
Voor werknemers van Amazon zijn bovenstaande zaken geen belemmeringen. Ze geven aan dat het gebruik van de chatbot hun productiviteit heeft vertienvoudigd en dat velen zich graag bij het interne team zouden aansluiten dat aan de vergelijkbare technologie werkt.